复杂 Agentic Memory 是否总是必要？朴素 RAG 比我们想的更强
🧭 长对话记忆中朴素 RAG 基线对比复杂 Agentic Memory
Xi'an Jiaotong University · Shanghai Jiao Tong University · Zhejiang University · The Chinese University of Hong Kong
在长对话理解中，基于原始历史的朴素 RAG 在多数基准上超越复杂 agentic memory，并揭示保留原始信息的重要性
📌 工作参考价值（4 点）
- 在电商客服、用户 long-term profile、Agent 对话等场景，可以先实现朴素 RAG：直接对原始历史做 dense retrieval + reranking，再交给 LLM 生成回答，工程成本远低于构建复杂记忆系统，却可能获得更高准确率。
- 保留原始交互序列和日志很重要。复杂记忆转换（如 summary、知识图谱、记忆更新）会引入信息损失，导致后续推导所需的依赖路径丢失；在推荐/客服场景应保留 raw evidence 作为检索源。
- 证据覆盖率比单条证据利用率更关键。朴素 RAG 可能检索到更多冗余但相关证据，即使部分证据未被 LLM 充分利用，也能通过提升 recall 来弥补 precision 的不足，因此评估记忆系统时不要只优化 top-k 精度。
- 重排序在 raw-history RAG 中是有效的 trick：先 dense retrieval 提高 recall，再用 reranker 压榨 top-k 质量，可以在低 ingestion 成本下达到甚至超越复杂记忆的表现。
MemT-1.0：迈向记忆原生进化的基础模型架构
🧭 记忆原生 LLM · MoS 扩展容量 ★ 深度解读
MemTensor Team
提出 MemT-1.0，用 Gated DeltaNet-2 与 MoS 将记忆内化为模型原生状态，128K 历史下较 full KV cache 提速 1.86×、存储降 66×
📌 工作参考价值（4 点）
- 会话/用户记忆建模：用固定大小的 recurrent memory state 替代全量 session KV cache，适合电商导购 Agent 的长期用户偏好、历史订单与多轮上下文压缩；持久状态可在多个 query 间复用，摊薄历史准备成本。
- 训练方法：冻结推荐/对话 backbone，只训 memory 参数，用 full-context teacher 做 top-K KL 蒸馏 + CE；业务上可用线上完整上下文模型蒸馏出轻量记忆模块，避免重训大模型。
- MoS dense routing：当记忆容量不够时扩展多个 memory expert，读写分开路由，比稀疏 MoE 更稳定；可用于用户分群/场景差异化的记忆写入与读取。
- 经验内化：把检索到的成功操作流程（如售后、选品、谈判策略）写入 memory state 来指导多步 agent，而不是每次都塞进 prompt；可降低 token 成本并提升行为一致性。
GLOBE：面向生成式搜索电商商品优化的结构化智能体记忆演化
🧭 生成式搜索 GEO · Agentic Memory ★ 深度解读
AI Lab, CTO Division, LG Electronics, South Korea
把商品改写策略存成字段级行为手册，用排名反馈持续演化、去冗余并淘汰有害策略
📌 工作参考价值（4 点）
- 将商品 listing 优化从整篇 prompt 改写拆成 field-scoped behavior：每个 behavior 定义 edit operation + 允许字段（title/features/description）+ 冲突关系，可避免跨字段错误和过拟合关键词；电商可直接把 SEO/GEO 规则落成这种结构化手册。
- 用 rank gain 作为反馈，按 batch 聚合并更新 behavior 的 helpful/harmful/neutral 计数、score = h+ - h-，设 probation Nmin=5 再淘汰；比逐 episode 更新更稳，适合在线排序反馈有噪声的场景。
- Moderator 做 embedding dedup（cos > 0.9）+ LLM 功能去重，再由 Curator 提交；防止反馈演化膨胀出冗余或过拟合 ranker 的 behavior，全流程保持 handbook compact，cross-ranker 迁移更好。
- 推理阶段冻结 handbook，只用 active behaviors 单次编辑，无迭代搜索；训练阶段多智能体成本高但线上轻量，可考虑把 handbook 蒸馏到小模型或作为静态规则库。
全面回忆代价几何：智能体记忆系统服务成本基准测试
🧭 Agent 记忆系统成本与精度基准
Bricks Technology, Thailand
系统对比三种 agentic 记忆系统与滚动窗口/全量转录基线，发现成本不可由对话长度预测且成本-准确率无赢家
📌 工作参考价值（4 点）
- 长期对话 agent（客服、导购、推荐助手）引入记忆系统时，不要只按对话长度或消息大小预估成本；记忆系统的内部行为（抽取、总结、检索）才是主要成本变量，必须实测 profiling，否则成本可能偏差 18-69%。
- 上线前做 break-even 分析：对比全量 transcript 重发、固定滚动窗口和记忆系统的单轮 serving 成本，确定在会话多少轮后记忆系统才开始省钱；本实验中最便宜系统数十轮即可回本，最贵系统 400 轮内从未回本，选择错误会持续超支。
- 成本与准确率联合评估：642 个 LoCoMo 问题上各系统准确率仅 21-54%，没有系统同时占优；若业务对准确率敏感，先定准确率底线，再在满足底线的系统中选成本最低者。
- backbone 选择对成本的影响与记忆系统本身同样大，甚至可能抵消记忆系统的节省；做记忆系统选型时必须联合 backbone（如 GPT-4o vs. 轻量模型）一起压测，不能只换记忆系统而沿用原模型。
记忆作为受控过程：LLM Agent 的习得式自适应记忆管理
🧭 Agent 自适应记忆控制 · Contextual Bandit ★ 深度解读
University of California Los Angeles · University of Washington · Northwestern University
将 Agent 记忆访问建模为 MDP，用在线 contextual bandit 学习自适应策略，零额外 LLM 调用且后端无关
📌 工作参考价值（4 点）
- 轻量级记忆控制器：可将 Agent 检索深度、是否注入过往成功策略、何时遗忘陈旧信息的决策，接管为一个表格式上下文 Bandit，在线学习 Q 表，收敛只需几十个任务，无需额外 LLM 推理，适合电商对话 Agent、智能客服等对延迟和成本敏感的场景。
- 后端解耦：记忆控制策略与底层存储（向量库、图记忆、潜 Token 记忆等）分离，现有系统只需暴露检索/存储接口即可无缝装配，便于在推荐商品问答、多轮导购等场景中，渐进式将固定 retriever 升级为自适应 retriever。
- 令牌节省机制：通过抑制无效检索、复用成功计划模板，MEMCON 实现 5–20% 的 token 消耗下降同时提升成功率，对计费严格的 LLM 应用有直接成本收益。
- 状态设计思路：在电商推荐 Agent 中，可按“目标商品类别”“步骤阶段”“是否卡壳”“记忆库规模”等构建紧凑状态，配合少量离散动作空间，即可部署类似 UCB 策略，让 Agent 学会何时更多检索历史对话、何时直接复用成功推荐链路。
EvoEmbedding：可进化的表示模型，解决长上下文检索与Agent记忆动态匹配
🧭 可进化嵌入 · 长上下文检索与Agent记忆 ★ 深度解读
Nanjing University
通过FIFO潜在记忆队列实现可进化的上下文感知嵌入，在长上下文检索和Agent记忆任务上大幅超越静态大模型
📌 工作参考价值（4 点）
- 用户行为序列的动态嵌入：电商场景中，同一用户在不同时段对同一query的意图不同（如“耳机”先浏览后比价），EvoEmbedding的可进化表示可压缩历史上下文，使召回/排序阶段感知时序变化，避免检索过时信息。可直接用其FIFO潜在记忆队列增量更新用户状态，嵌入维度仅1024，开销低。
- 多LoRA解耦训练与无损切换：将记忆更新和表示生成拆分为两个LoRA适配器，基座LLM参数冻结，既避免了灾难性遗忘，又可在推理时按需激活。业务中可借鉴为同一个基座模型同时具备记忆压缩和检索嵌入能力，省去额外部署专用嵌入模型。
- 长度加权对比损失：对于电商长序列（如用户全生命周期行为），正负样本数量差异极大且长度悬殊。论文的log(N+1)自适应校准因子可稳定训练，避免模型偏向短序列，值得直接移植到用户长序列表示学习。
- Segment-Batching加速技巧：将多个连续片段拼接后并行编码，训练提速3.8倍且性能小幅提升。在处理用户流水数据时，可按时间窗口并行化，平衡效率与效果。